在标准优化世界中，约束就像一道二元的墙：要么你进入，要么你退出。但在复杂系统中，这些“硬”约束可能在数学上过于僵化。拉格朗日框架提供了突破这一局限的结构，将约束转化为包含违规行为作为加权惩罚的“增强”目标函数。这不仅仅是一种技巧；它是通过拉格朗日乘子量化约束“成本”的基础。
1. 从硬约束到软惩罚
考虑一个标准问题：在满足 $f_i(x) \le 0$ 和 $h_i(x) = 0$ 的条件下最小化 $f_0(x)$。一个“硬”约束等价于一个指示函数：
$$I_-(u) = \begin{cases} 0 & u \leq 0 \\ \infty & u > 0 \end{cases}$$
拉格朗日构造用线性惩罚取代了这种无穷跳跃。我们通过约束函数的加权和来增强目标函数：
$$L(x, \lambda, \nu) = f_0(x) + \sum_{i=1}^m \lambda_i f_i(x) + \sum_{i=1}^p \nu_i h_i(x)$$
其中，$\lambda_i$ 是 拉格朗日乘子。它作为一个“软”惩罚，调节第 $i$ 个不等式的影响。关键的是，我们尚未假设凸性；该框架具有普遍适用性。
对偶视角
我们定义 拉格朗日对偶函数 $g(\lambda, \nu)$ 为拉格朗日函数在 $x$ 上的下确界。一个关键性质是 下界性质：对于任意 $\lambda \succeq 0$，有 $g(\lambda, \nu) \le p^*$。这使我们能够对那些原本无法直接求解的问题的最优值进行界定。
2. 案例研究：混合动力车辆控制
想象一辆车辆需要在燃油消耗与电池寿命之间取得平衡。这些约束是物理性的：功率需求必须在每一时刻都得到满足。
- 功率平衡： $P_{\text{req}}(t) = p_{\text{eng}}(t) + p_{\text{mg}}(t) - p_{\text{br}}(t)$
- 电池动力学： $E(t+1) = E(t) - p_{\text{mg}}(t) - \eta |p_{\text{mg}}(t)|$
- 目标： 最小化 $F_{\text{total}} = \sum_{t=1}^{T} F(p_{\text{eng}}(t))$
通过应用拉格朗日框架，电池容量约束被转化为 影子价格。控制器根据当前能量的“成本”（即乘子）与燃油成本之间的比较，决定是燃烧燃料还是使用电池。
🎯 核心原理：对偶性与可行性
下界性质 $p^* \in [g(\lambda, \nu), f_0(x)]$ 只有在 $\lambda \succeq 0$ 且 $g(\lambda, \nu) > -\infty$ 时才具有实际意义。即使在非凸情况下，这一关系依然成立，尽管可能存在“对偶间隙”。